Machine Learning

• Domaine de l’intelligence artificielle

• Consiste à entraîner des modèles informatiques à effectuer des tâches sans avoir été explicitement programmés pour les accomplir

• Les modèles peuvent s’améliorer au fil du temps en apprenant à partir de données

• Exemple : Traduction automatique Reconnaissance vocale…

Apprentissage supervisé

• modèle est entraîné sur un jeu de données annotées
• Le jeu de données contient des exemples d’entrée et de sortie souhaités
• L’objectif: généraliser apprentissage à partir de ces exemples pour prédire la sortie correcte pour de nouvelles entrées

Apprentissage supervisé

\[\hat{y} = f(x, \theta)\]

où \(x\) est l’entrée, \(\theta\) sont les paramètres du modèle et \(\hat{y}\) est la valeur prédite par le modèle pour l’entrée \(x\).

Objectifs : Trouver les valeurs optimales de \(\theta\) qui minimisent l’erreur entre les valeurs prédites et valeurs réelles.

• Fonction de coût avec optimisation

Apprentissage non supervisé

• Découvrir une structure au sein d’un ensemble d’individus caractérisés par des covariables X

• Label est inconnu

Apprentissage non supervisé

\[\hat{y} = f(x, \theta)\]

où \(x\) est l’entrée, \(\theta\) sont les paramètres du modèle et \(\hat{y}\) est la valeur prédite par le modèle pour l’entrée \(x\).

Objectifs : trouver des structures ou des patterns dans les données qui peuvent être utilisés pour effectuer des tâches utiles

Les paramètres du modèle sont mis à jour en utilisant une fonction de coût et une méthode d’optimisation afin de trouver des structures ou des patterns dans les données

Supervisé / Non supervisé

Supervisé / Non supervisé

Entrainement d’un modèle

Fonctions de coût

1. Erreur quadratique moyenne (MSE)

• Utilisée pour les tâches de régression

• Formule: \[MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2\]

• Simple à calculer et à interpréter, mais sensible aux outliers et peu robuste face à la skewness des données

2. Erreur absolue moyenne (MAE)

• Utilisée pour les tâches de régression

• Formule: \[MAE = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i|\]

• Moins sensible aux outliers que le MSE, mais moins intuitive à interpréter

3. Erreur quadratique moyenne de racine (RMSE)

• Utilisée pour les tâches de régression

• Formule: \[RMSE = \sqrt{\frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2}\]

• racine carrée de l’erreur quadratique moyenne (MSE)

• échelle similaire aux vraies valeurs de sortie

4. Erreur de classification

• Utilisée pour les tâches de classification

• Formule: \[Err_{class} = \frac{n_{erreurs}}{n}\]

• Simple à calculer, mais ne prend pas en compte la probabilité des prédictions

5. Indice de concordance de Cohen (Cohen’s kappa)

• Utilisée pour les tâches de classification

• Formule: \[\kappa = \frac{p_o - p_e}{1 - p_e}\]

• moins sensible aux inégalités de distribution des classes que l’erreur de classification

Exemple sur la régression lineaire

# Chargement des données d'entraînement
train <- read.csv("train.csv")
X_train <- train[,1] # variables explicatives
y_train <- train[,2] # variable à prédire

# Entraînement du modèle de régression linéaire
model <- lm(y_train ~ X_train)

# Prédiction sur les données d'entraînement
y_pred <- predict(model, X_train)

# Calcul de l'erreur quadratique moyenne
mse <- mean((y_train - y_pred)^2)

# Affichage de l'erreur
print(mse)